<html>
 <head>
  <meta charset="UTF-8">
 </head>
 <body>
  <h1 data-lake-id="Ltrsa" id="Ltrsa"><span data-lake-id="uad56f6ef" id="uad56f6ef">典型回答</span></h1>
  <p data-lake-id="u516b2459" id="u516b2459"><br></p>
  <p data-lake-id="uf358a310" id="uf358a310"><span data-lake-id="ub97b91fc" id="ub97b91fc">所谓跨库join，指的就是数据分散在不同的数据库中，但是又需要做关联查询，这时候就需要解决跨库join的问题。</span></p>
  <p data-lake-id="ua5979c3c" id="ua5979c3c"><span data-lake-id="ub2e47295" id="ub2e47295">​</span><br></p>
  <p data-lake-id="ud8e9eae6" id="ud8e9eae6"><span data-lake-id="u05fd2b77" id="u05fd2b77">举个例子，比如我们有两个数据库一个交易trade库，一个用户customer库，这时候，如果我们想join查询位于trade库的orders表和位于customer库的users表，因为他们是不同的数据库，是没办法直接用以下SQL进行join的：</span></p>
  <p data-lake-id="u21ca30be" id="u21ca30be"><span data-lake-id="u285c9f19" id="u285c9f19">​</span><br></p>
  <pre lang="java"><code>
select orders.order_id,users.user_name 
from orders
join users
on orders.user_id = users.id
</code></pre>
  <p data-lake-id="uf0024656" id="uf0024656"><br></p>
  <p data-lake-id="uf5d229bd" id="uf5d229bd"><span data-lake-id="ud8649c58" id="ud8649c58">那么，如果要解决这个问题，可以有以下几个方案。</span></p>
  <p data-lake-id="u38fdff63" id="u38fdff63"><span data-lake-id="u5826500a" id="u5826500a">​</span><br></p>
  <h3 data-lake-id="cG8yg" id="cG8yg"><span data-lake-id="u9071c599" id="u9071c599">指定库名join</span></h3>
  <p data-lake-id="u1bd07727" id="u1bd07727"><br></p>
  <p data-lake-id="u373b71c5" id="u373b71c5"><span data-lake-id="u844395dd" id="u844395dd">虽然交易trade库和用户customer库是不同的数据库，但是如果他们位于同一个数据库实例中，也是可以进行跨库join的，只需要在JOIN语句中通过指定数据库名来引用它们。例如，在MySQL中：</span></p>
  <p data-lake-id="u0546eb5c" id="u0546eb5c"><span data-lake-id="ue8d7c765" id="ue8d7c765">​</span><br></p>
  <pre lang="java"><code>
select orders.order_id,users.user_name 
from trade.orders
join customer.users
on trade.orders.user_id = customer.users.id
</code></pre>
  <p data-lake-id="u3f4179a5" id="u3f4179a5"><br></p>
  <p data-lake-id="u4da640e3" id="u4da640e3"><span data-lake-id="u898c24fa" id="u898c24fa">但是这个要求就是他们必须属于同一个数据库实例。</span></p>
  <p data-lake-id="ud1797328" id="ud1797328"><span data-lake-id="u7c759e4c" id="u7c759e4c">​</span><br></p>
  <p data-lake-id="ud8dc2fb5" id="ud8dc2fb5"><span data-lake-id="u35269979" id="u35269979">但是，需要注意的是，跨库JOIN操作可能会影响查询性能，尤其是在处理大量数据时。优化查询和考虑索引的使用可以帮助改善性能。</span></p>
  <p data-lake-id="uaa0eea29" id="uaa0eea29"><span data-lake-id="u3b88954d" id="u3b88954d">​</span><br></p>
  <h3 data-lake-id="CI3W2" id="CI3W2"><span data-lake-id="u29718e5f" id="u29718e5f">数据冗余</span></h3>
  <p data-lake-id="u5bef615d" id="u5bef615d"><br></p>
  <p data-lake-id="u20d5007f" id="u20d5007f"><br></p>
  <p data-lake-id="ud07d3e6c" id="ud07d3e6c"><span data-lake-id="u511e7644" id="u511e7644">在上面这篇文章中，我们提及过，有的时候，我们为了避免join，会在数据库表设计的时候，考虑反范式，即做一些字段的冗余。</span></p>
  <p data-lake-id="u6808ed3a" id="u6808ed3a"><span data-lake-id="u8ee9866c" id="u8ee9866c">​</span><br></p>
  <p data-lake-id="ubc2aae48" id="ubc2aae48"><span data-lake-id="u5c41f823" id="u5c41f823">比如上面的那个例子，我们可以在orders表中把user_name字段冗余下来，这样在一些需要在展示订单的时候展示用户名称的时候就可以不用join了。</span></p>
  <p data-lake-id="u1995bb3c" id="u1995bb3c"><span data-lake-id="u5abc31cb" id="u5abc31cb">​</span><br></p>
  <p data-lake-id="u70c084ba" id="u70c084ba"><span data-lake-id="u3e963de9" id="u3e963de9">但是，这么做也会带来一定的数据一致性的问题，那就是当users表中的用户改了名字，就会导致orders表中的用户名不一致，这时候就需要考虑同时修改，但是如果订单量很大，改起来是成本很高的。</span></p>
  <p data-lake-id="u513d19bb" id="u513d19bb"><span data-lake-id="u8c68a189" id="u8c68a189">​</span><br></p>
  <p data-lake-id="uf03a78af" id="uf03a78af"><span data-lake-id="u6cd57ba1" id="u6cd57ba1">所以，一般来说历史的数据就不改了，这种场景来说，如果用户看自己之前的订单，发现是自己之前的昵称，也是可以接受的。</span></p>
  <p data-lake-id="u3a89be69" id="u3a89be69"><span data-lake-id="uae987791" id="uae987791">​</span><br></p>
  <p data-lake-id="u65f206b5" id="u65f206b5"><span data-lake-id="ud66afce6" id="ud66afce6">但是不管怎么说，这个方案毕竟有限制，会带来数据不一致的问题。如果要考虑一致性，就会带来级联修改的问题。</span></p>
  <p data-lake-id="ud1f780bc" id="ud1f780bc"><span data-lake-id="ue0e03052" id="ue0e03052">​</span><br></p>
  <p data-lake-id="uefa85e50" id="uefa85e50"><span data-lake-id="u0aa31cf0" id="u0aa31cf0">但是，这个方案确实是公司里面用的比较多的。很多时候对于一些不常修改的字段，做一些数据冗余是非常方便的，比如用户的真实姓名。</span></p>
  <p data-lake-id="u29c3ee31" id="u29c3ee31"><span data-lake-id="u67aedecf" id="u67aedecf">​</span><br></p>
  <h3 data-lake-id="bXB7E" id="bXB7E"><span data-lake-id="uc81fe7a8" id="uc81fe7a8">内存中做join</span></h3>
  <p data-lake-id="u20680c21" id="u20680c21"><br></p>
  <p data-lake-id="uc99ce03d" id="uc99ce03d"><span data-lake-id="u75c78888" id="u75c78888">所谓在内存中做join，其实就是在应用程序中，通过写代码做join。比如：</span></p>
  <p data-lake-id="u9ea08c1e" id="u9ea08c1e"><span data-lake-id="u13ffe4cf" id="u13ffe4cf">​</span><br></p>
  <pre lang="java"><code>
//先从数据库中查询出要查询的订单列表
List&lt;OrderDO&gt; orders = getOrders();

for(OrderDO orderDO : orders){
		OrderDTO orderDTO= new OrderDTO(orderDO);
    //根据用户ID去users表查询用户名
    String userName = getUserNameByUserId(orderDO.getuserId);
    orderDTO.setUserName(userName);
}
</code></pre>
  <p data-lake-id="u3a01a71c" id="u3a01a71c"><br></p>
  <p data-lake-id="ua1f49946" id="ua1f49946"><span data-lake-id="u4f5fbd5d" id="u4f5fbd5d">这种做法非常多，虽然这么做，代码会比较复杂，然后需要多次查询，但是对于那些没有数据冗余，又没有很复杂的join的场景，还是非常常用的。</span></p>
  <p data-lake-id="u90e1eb99" id="u90e1eb99"><span data-lake-id="u21c6f2b3" id="u21c6f2b3">​</span><br></p>
  <p data-lake-id="uce40c8da" id="uce40c8da"><span data-lake-id="u5f1fdd1b" id="u5f1fdd1b">这个方案的缺点就是不太适合多张表join的场景，并且这种方案也需要比较大的内存来进行操作，用不好可能会导致内存溢出。</span></p>
  <p data-lake-id="uc903bf4e" id="uc903bf4e"><span data-lake-id="u8d459473" id="u8d459473">​</span><br></p>
  <p data-lake-id="u3b6a9228" id="u3b6a9228"><span data-lake-id="u4ca6d964" id="u4ca6d964">​</span><br></p>
  <h3 data-lake-id="jn7o9" id="jn7o9"><span data-lake-id="u450da3e6" id="u450da3e6">宽表</span></h3>
  <p data-lake-id="u75d97c78" id="u75d97c78"><br></p>
  <p data-lake-id="u151b6a2f" id="u151b6a2f"><span data-lake-id="u6692339e" id="u6692339e">使用宽表也可以解决跨库JOIN问题，这是一种常用的数据仓库和大数据处理方法。宽表本质上是一种数据预处理技术，它通过将来自不同来源的数据集成到一个单独的、拥有多个字段的大表中，来避免实时跨库JOIN操作的需要。</span></p>
  <p data-lake-id="uf0c64418" id="uf0c64418"><span data-lake-id="u39de7959" id="u39de7959">​</span><br></p>
  <p data-lake-id="u23598ff6" id="u23598ff6"><span data-lake-id="u3aee2c70" id="u3aee2c70">比如我有多张表需要进行join，那么我们其实可以提前把他们join好，然后把他们保存在宽表中，这样在查询的时候直接到宽表中查就行了。</span></p>
  <p data-lake-id="u885d1e7a" id="u885d1e7a"><span data-lake-id="ua57208f7" id="ua57208f7">​</span><br></p>
  <p data-lake-id="u1976eebe" id="u1976eebe"><span data-lake-id="uce56ec8c" id="uce56ec8c">这就需要我们有技术手段将不同数据库或表中的数据整合到一个大型的宽表中。这个过程通常涉及数据抽取、转换（ETL）和加载（ELT）。</span></p>
  <p data-lake-id="uae36beca" id="uae36beca"><span data-lake-id="u8f974267" id="u8f974267">​</span><br></p>
  <p data-lake-id="ufaf5a433" id="ufaf5a433"><span data-lake-id="ud432a581" id="ud432a581">这个方案和做数据冗余差不多，并且是把冗余发挥到了极致。他的优点就是因为所有数据都在同一张表中，所以不需要join了，查询也会更快一些。</span></p>
  <p data-lake-id="uac33e87f" id="uac33e87f"><span data-lake-id="ufbc20fcd" id="ufbc20fcd">​</span><br></p>
  <p data-lake-id="u96ee8092" id="u96ee8092"><span data-lake-id="ud77fff4c" id="ud77fff4c">但是缺点也比较明显，首先就是宽表的维护是比较复杂的，并且数据冗余就会导致更多的存储空间，以及前面提到的一致性的问题。</span></p>
  <p data-lake-id="u6769fc3a" id="u6769fc3a"><span data-lake-id="uf2b42dd1" id="uf2b42dd1">​</span><br></p>
  <p data-lake-id="u96c54506" id="u96c54506"><span data-lake-id="ua8e1f2c7" id="ua8e1f2c7">这个方案一般都是用在数仓、大数据分析、以及BI报表等场景中。平常开发场景用的并不是特别的多。</span></p>
  <p data-lake-id="u3696ff98" id="u3696ff98"><span data-lake-id="u5c0e0dae" id="u5c0e0dae">​</span><br></p>
  <p data-lake-id="u5d932440" id="u5d932440"><span data-lake-id="u9878b41c" id="u9878b41c">​</span><br></p>
  <h3 data-lake-id="mAd94" id="mAd94"><span data-lake-id="uba5a971a" id="uba5a971a">第三方数据库</span></h3>
  <p data-lake-id="u32fd6c35" id="u32fd6c35"><br></p>
  <p data-lake-id="ud9c95ae1" id="ud9c95ae1"><span data-lake-id="u737eb769" id="u737eb769">还有一种比较典型的做法，那就是我们把跨库的这些表，想办法放到同一个库中，这样就不存在跨库join了，就变成普通的join了。</span></p>
  <p data-lake-id="ubc23b974" id="ubc23b974"><span data-lake-id="u19a4c345" id="u19a4c345">​</span><br></p>
  <p data-lake-id="ude739121" id="ude739121"><span data-lake-id="ub1318ce0" id="ub1318ce0">所以我们可以把数据同步到一个第三方的数据库中，这个库可以使mysql，也可以是一些数据分析相关的数据库，比如AnalyticDB这种数据库。</span></p>
  <p data-lake-id="u8f5d3708" id="u8f5d3708"><span data-lake-id="u2248ee97" id="u2248ee97">​</span><br></p>
  <p data-lake-id="ubf6eca02" id="ubf6eca02"><span data-lake-id="u14806af3" id="u14806af3">比如，我们比较常用的就是通过一些数据同步的手段，比如binlog监听，flink等把数据同步到ADB中，然后一个部门的数据都放在同一个数据库实例中，这样就可以在同一个实例中做多表join了。</span></p>
  <p data-lake-id="u93a7e3d2" id="u93a7e3d2"><span data-lake-id="ue0cfee45" id="ue0cfee45">​</span><br></p>
  <p data-lake-id="ud735154b" id="ud735154b"><span data-lake-id="u63557be2" id="u63557be2">这个方案的缺点就是会存在一定的数据延迟。比较适合用在数据对账，数据分析，报表监控等场景。</span></p>
  <p data-lake-id="ub8140964" id="ub8140964"><span data-lake-id="u0a4a505a" id="u0a4a505a">​</span><br></p>
  <p data-lake-id="u4f9e956f" id="u4f9e956f"><span data-lake-id="uc5ac6676" id="uc5ac6676">​</span><br></p>
  <h3 data-lake-id="vUhq1" id="vUhq1"><span data-lake-id="u1c58475f" id="u1c58475f">搜索引擎</span></h3>
  <p data-lake-id="u7160a411" id="u7160a411"><br></p>
  <p data-lake-id="ua0b5d991" id="ua0b5d991"><span data-lake-id="u2344452f" id="u2344452f">使用Elasticsearch等搜索引擎，也是可以解决跨库JOIN的问题的，尤其是在处理大数据和复杂搜索场景时。</span></p>
  <p data-lake-id="u248f981a" id="u248f981a"><span data-lake-id="u0a4e7b3f" id="u0a4e7b3f">​</span><br></p>
  <p data-lake-id="u5015dd06" id="u5015dd06"><span data-lake-id="u962fb2d5" id="u962fb2d5">Elasticsearch是一个基于Lucene构建的强大的全文搜索和分析引擎，它能够处理大量的数据并提供快速的搜索能力。它适用于那些需要快速、复杂搜索和数据分析的场景。</span></p>
  <p data-lake-id="ua425e343" id="ua425e343"><span data-lake-id="u8ed647e1" id="u8ed647e1">​</span><br></p>
  <p data-lake-id="u7309a49c" id="u7309a49c"><span data-lake-id="u7dccd1fc" id="u7dccd1fc">我们可以基于前面的宽表的思想，把orders表和users中我们关心的所有字段做成一个文档，如类似以下形式：</span></p>
  <p data-lake-id="u71bbef93" id="u71bbef93"><span data-lake-id="u0e77b9f8" id="u0e77b9f8">​</span><br></p>
  <pre lang="java"><code>
{
  "userId": "123",
  "userName": "Hollis",
  "orders": [
    {
      "orderId": "a1",
      "orderDate": "2021-01-01",
      "amount": 100
    },
    {
      "orderId": "b2",
      "orderDate": "2021-02-01",
      "amount": 150
    }
  ]
}

</code></pre>
  <p data-lake-id="uf8375398" id="uf8375398"><br></p>
  <p data-lake-id="u5a35f5e4" id="u5a35f5e4"><span data-lake-id="u5745fe19" id="u5745fe19">然后再基于canal等工具，把orders表及users表的变更同步到ES中，这样我们就可以基于ES直接做查询了。</span></p>
 </body>
</html>